home *** CD-ROM | disk | FTP | other *** search
/ Chip 2007 January, February, March & April / Chip-Cover-CD-2007-02.iso / Pakiet internetowy / Rozne / HTTrack 3.40-2 / httrack-3.40-2.exe / {app} / src / htshash.c < prev    next >
C/C++ Source or Header  |  2005-04-23  |  10KB  |  315 lines
  1. /* ------------------------------------------------------------ */
  2. /*
  3. HTTrack Website Copier, Offline Browser for Windows and Unix
  4. Copyright (C) Xavier Roche and other contributors
  5.  
  6. This program is free software; you can redistribute it and/or
  7. modify it under the terms of the GNU General Public License
  8. as published by the Free Software Foundation; either version 2
  9. of the License, or any later version.
  10.  
  11. This program is distributed in the hope that it will be useful,
  12. but WITHOUT ANY WARRANTY; without even the implied warranty of
  13. MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14. GNU General Public License for more details.
  15.  
  16. You should have received a copy of the GNU General Public License
  17. along with this program; if not, write to the Free Software
  18. Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111-1307, USA.
  19.  
  20.  
  21. Important notes:
  22.  
  23. - We hereby ask people using this source NOT to use it in purpose of grabbing
  24. emails addresses, or collecting any other private information on persons.
  25. This would disgrace our work, and spoil the many hours we spent on it.
  26.  
  27.  
  28. Please visit our Website: http://www.httrack.com
  29. */
  30.  
  31.  
  32. /* ------------------------------------------------------------ */
  33. /* File: httrack.c subroutines:                                 */
  34. /*       hash table system (fast index)                         */
  35. /* Author: Xavier Roche                                         */
  36. /* ------------------------------------------------------------ */
  37.  
  38. /* Internal engine bytecode */
  39. #define HTS_INTERNAL_BYTECODE
  40.  
  41. #include "htshash.h"
  42.  
  43. /* specific definitions */
  44. #include "htsbase.h"
  45. #include "htsglobal.h"
  46. #include "htsmd5.h"
  47. /* END specific definitions */
  48.  
  49. /* Specific macros */
  50. #ifndef malloct
  51. #define malloct malloc
  52. #define freet free
  53. #define calloct calloc
  54. #define strcpybuff strcpy
  55. #endif
  56.  
  57. // GESTION DES TABLES DE HACHAGE
  58. // MΘthode α 2 clΘs (adr+fil), 2e cle facultative
  59. // hash[no_enregistrement][pos]->hash est un index dans le tableau gΘnΘral liens
  60. // #define HTS_HASH_SIZE 8191  (premier si possible!)
  61. // type: numero enregistrement - 0 est case insensitive (sav) 1 (adr+fil) 2 (former_adr+former_fil)
  62. // recherche dans la table selon nom1,nom2 et le no d'enregistrement
  63. // retour: position ou -1 si non trouvΘ
  64. int hash_read(hash_struct* hash,char* nom1,char* nom2,int type,int normalized) {
  65.   char BIGSTK normfil_[HTS_URLMAXSIZE*2];
  66.   char* normfil;
  67.   char* normadr;
  68.   unsigned int cle;
  69.   int pos; 
  70.   // calculer la clΘ de recherche, non modulΘe
  71.   if (type)
  72.     cle = hash_cle(nom1,nom2);
  73.   else
  74.     cle = hash_cle(convtolower(nom1),nom2);         // case insensitive
  75.   // la position se calcule en modulant
  76.   pos = (int) (cle%HTS_HASH_SIZE);
  77.   // entrΘe trouvΘe?
  78.   if (hash->hash[type][pos] >= 0) {             // un ou plusieurs enregistrement(s) avec une telle clΘ existe..
  79.     // tester table de raccourcis (hash)
  80.     // pos est maintenant la position recherchΘe dans liens
  81.     pos = hash->hash[type][pos];
  82.     while (pos>=0) {              // parcourir la chaine
  83.       switch (type) {
  84.       case 0:         // sav
  85.         if (strfield2(nom1,hash->liens[pos]->sav)) {  // case insensitive
  86. #if DEBUG_HASH==2
  87.           printf("hash: found shortcut at %d\n",pos);
  88. #endif
  89.           return pos;
  90.         }
  91.         break;
  92.       case 1:         // adr+fil
  93.         {
  94.           if (!normalized)
  95.             normfil=hash->liens[pos]->fil;
  96.           else
  97.             normfil=fil_normalized(hash->liens[pos]->fil,normfil_);
  98.           if (!normalized)
  99.             normadr = jump_identification(hash->liens[pos]->adr);
  100.           else
  101.             normadr = jump_normalized(hash->liens[pos]->adr);
  102.           if ((strfield2(nom1,normadr)!=0) && (strcmp(nom2,normfil)==0)) {
  103. #if DEBUG_HASH==2
  104.             printf("hash: found shortcut at %d\n",pos);
  105. #endif
  106.             return pos;
  107.           }
  108.         }
  109.         break;
  110.       case 2:         // former_adr+former_fil
  111.         {
  112.           if (hash->liens[pos]->former_adr) {
  113.             if (!normalized)
  114.               normfil=hash->liens[pos]->former_fil;
  115.             else
  116.               normfil=fil_normalized(hash->liens[pos]->former_fil,normfil_);
  117.             if (!normalized)
  118.               normadr = jump_identification(hash->liens[pos]->former_adr);
  119.             else
  120.               normadr = jump_normalized(hash->liens[pos]->former_adr);
  121.             
  122.             if ((strfield2(nom1,normadr)!=0) && (strcmp(nom2,normfil)==0)) {
  123. #if DEBUG_HASH==2
  124.               printf("hash: found shortcut at %d\n",pos);
  125. #endif
  126.               return pos;
  127.             }
  128.           }
  129.         }
  130.         break;
  131.       }
  132.       // calculer prochaine position dans la chaine
  133.       {
  134.         int old=pos;
  135.         pos=hash->liens[pos]->hash_next[type];   // sinon prochain dans la chaine
  136.         if (old==pos)
  137.           pos=-1;         // erreur de bouclage (ne devrait pas arriver)
  138.       }
  139.     }
  140.     
  141.     // Ok va falloir chercher alors..
  142.     /*pos=hash->max_lien;    // commencer α max_lien
  143.     switch (type) {
  144.     case 0:         // sav
  145.       while(pos>=0) {
  146.         if (hash->liens[pos]->hash_sav == cle ) {
  147.           if (strcmp(nom1,hash->liens[pos]->sav)==0) {
  148.             hash->hash[type][(int) (cle%HTS_HASH_SIZE)] = pos;    // noter plus rΘcent dans shortcut table
  149. #if DEBUG_HASH==2
  150.             printf("hash: found long search at %d\n",pos);
  151. #endif
  152.             return pos;
  153.           }
  154.         }
  155.         pos--;
  156.       }
  157.       break;
  158.     case 1:         // adr+fil
  159.       while(pos>=0) {
  160.         if (hash->liens[pos]->hash_adrfil == cle ) {
  161.           if ((strcmp(nom1,hash->liens[pos]->adr)==0) && (strcmp(nom2,hash->liens[pos]->fil)==0)) {
  162.             hash->hash[type][(int) (cle%HTS_HASH_SIZE)] = pos;    // noter plus rΘcent dans shortcut table
  163. #if DEBUG_HASH==2
  164.             printf("hash: found long search at %d\n",pos);
  165. #endif
  166.             return pos;
  167.           }
  168.         }
  169.         pos--;
  170.       }
  171.       break;
  172.     case 2:         // former_adr+former_fil
  173.       while(pos>=0) {
  174.         if (hash->liens[pos]->hash_fadrfil == cle ) {
  175.           if (hash->liens[pos]->former_adr)
  176.             if ((strcmp(nom1,hash->liens[pos]->former_adr)==0) && (strcmp(nom2,hash->liens[pos]->former_fil)==0)) {
  177.             hash->hash[type][(int) (cle%HTS_HASH_SIZE)] = pos;    // noter plus rΘcent dans shortcut table
  178. #if DEBUG_HASH==2
  179.             printf("hash: found long search at %d\n",pos);
  180. #endif
  181.             return pos;
  182.           }
  183.         }
  184.         pos--;
  185.       }
  186.     }*/
  187. #if DEBUG_HASH==1
  188.     printf("hash: not found after test %s%s\n",nom1,nom2);
  189. #endif
  190.     return -1;    // non trouvΘ
  191.   } else {
  192. #if DEBUG_HASH==2
  193.     printf("hash: not found %s%s\n",nom1,nom2);
  194. #endif
  195.     return -1;    // non trouvΘ : clΘ non entrΘe (mΩme une fois)
  196.   }
  197. }
  198.  
  199. // enregistrement lien lpos dans les 3 tables hash1..3
  200. void hash_write(hash_struct* hash,int lpos,int normalized) {
  201.   char BIGSTK normfil_[HTS_URLMAXSIZE*2];
  202.   char* normfil;
  203.   unsigned int cle;
  204.   int pos; 
  205.   int* ptr;
  206.   //
  207.   if (hash->liens[lpos]) {                       // on sait jamais..
  208.     hash->max_lien = max(hash->max_lien,lpos);
  209. #if DEBUG_HASH
  210.     hashnumber=hash->max_lien;
  211. #endif
  212.     // ΘlΘment actuel sur -1 (fin de chaine)
  213.     hash->liens[lpos]->hash_next[0]=hash->liens[lpos]->hash_next[1]=hash->liens[lpos]->hash_next[2]=-1;
  214.     //
  215.     cle = hash_cle(convtolower(hash->liens[lpos]->sav),"");    // CASE INSENSITIVE
  216.     pos = (int) (cle%HTS_HASH_SIZE);
  217.     ptr = hash_calc_chaine(hash,0,pos);         // calculer adresse chaine
  218.     *ptr = lpos;                   // noter dernier enregistrΘ
  219. #if DEBUG_HASH==3
  220.     printf("[%d",pos);
  221. #endif
  222.     //
  223.     if (!normalized)
  224.       normfil=hash->liens[lpos]->fil;
  225.     else
  226.       normfil=fil_normalized(hash->liens[lpos]->fil,normfil_);
  227.     if (!normalized)
  228.       cle = hash_cle(jump_identification(hash->liens[lpos]->adr),normfil);
  229.     else
  230.       cle = hash_cle(jump_normalized(hash->liens[lpos]->adr),normfil);
  231.     pos = (int) (cle%HTS_HASH_SIZE);
  232.     ptr = hash_calc_chaine(hash,1,pos);         // calculer adresse chaine
  233.     *ptr = lpos;                   // noter dernier enregistrΘ
  234. #if DEBUG_HASH==3
  235.     printf(",%d",pos);
  236. #endif
  237.     //
  238.     if (hash->liens[lpos]->former_adr) {         // former_adr existe?
  239.       if (!normalized)
  240.         normfil=hash->liens[lpos]->former_fil;
  241.       else
  242.         normfil=fil_normalized(hash->liens[lpos]->former_fil,normfil_);
  243.       if (!normalized)
  244.         cle = hash_cle(jump_identification(hash->liens[lpos]->former_adr),normfil);
  245.       else
  246.         cle = hash_cle(jump_normalized(hash->liens[lpos]->former_adr),normfil);
  247.       pos = (int) (cle%HTS_HASH_SIZE);
  248.       ptr = hash_calc_chaine(hash,2,pos);         // calculer adresse chaine
  249.       *ptr = lpos;                   // noter dernier enregistrΘ
  250. #if DEBUG_HASH==3
  251.       printf(",%d",pos);
  252. #endif
  253.     }
  254. #if DEBUG_HASH==3
  255.     printf("] "); fflush(stdout);
  256. #endif
  257.   }
  258. #if DEBUT_HASH
  259.   else {
  260.     printf("* hash_write=0!!\n");
  261.     abortLogFmt("unexpected error in hash_write (pos=%d)" _ pos);
  262.     exit(1);
  263.   }
  264. #endif
  265.   //
  266. }
  267.  
  268. // calcul clΘ
  269. // il n'y a pas de formule de hashage universelle, celle-ci semble acceptable..
  270. unsigned long int hash_cle(char* nom1,char* nom2) {
  271.   /*
  272.   unsigned int sum=0;
  273.   int i=0;
  274.   while(*nom1) {
  275.     sum += 1;
  276.     sum += (unsigned int) *(nom1);
  277.     sum *= (unsigned int) *(nom1++);
  278.     sum += (unsigned int) i;
  279.     i++;
  280.   }
  281.   while(*nom2) {
  282.     sum += 1;
  283.     sum += (unsigned int) *(nom2);
  284.     sum *= (unsigned int) *(nom2++);
  285.     sum += (unsigned int) i;
  286.     i++;
  287.   }
  288.   */
  289.   return md5sum32(nom1)
  290.         +md5sum32(nom2);
  291. }
  292.  
  293. // calcul de la position finale dans la chaine des elements ayant la mΩme clΘ
  294. int* hash_calc_chaine(hash_struct* hash,int type,int pos) {
  295. #if DEBUG_HASH
  296.   int count=0;
  297. #endif
  298.   if (hash->hash[type][pos] == -1)
  299.     return &(hash->hash[type][pos]);    // premier ΘlΘment dans la chaine
  300.   pos=hash->hash[type][pos];
  301.   while(hash->liens[pos]->hash_next[type] != -1) {
  302.     pos = hash->liens[pos]->hash_next[type];
  303. #if DEBUG_HASH
  304.     count++;
  305. #endif
  306.   }
  307. #if DEBUG_HASH
  308.   count++;
  309.   longest_hash[type]=max(longest_hash[type],count);
  310. #endif
  311.   return &(hash->liens[pos]->hash_next[type]);
  312. }
  313. // FIN GESTION DES TABLES DE HACHAGE
  314.  
  315.